查看原文
其他

算力“危机”下的数据中心错配

Kerwin&ChatGPT-4 IDC圈 2023-10-31







ChatGPT-4自3月15日发布仅5天,就出现了“全球宕机12小时”事件,付费的ChatGPT Plus账户也未能幸免,用户的使用次数随后受到了明显的算力限制:从每4小时100条信息变成了每3小时25条。










随着人工智能、云计算、大数据等技术的广泛应用,全球对算力的需求呈现爆发式增长。尤其近期人工智能应用的突然大规模涌现,算力和数据需求急剧上升,导致现有的算力基础设施供给能力难以满足需求,算力供需出现失衡的现象。据统计,近20 年间,运算设备算力提高了90000倍,但是通讯带宽的增长只有30 倍,和算力相比提高幅度非常缓慢。与此同时,算力快速增长背后带来的算力供不应求、数据中心能耗等问题也亟需解决。一场算力“危机”似乎正在到来,未来,新型数据中心建设正成为解决当前这场“危机”不可或缺的重要一环。



算力危机来临

当前最为火爆的ChatGPT-4,自3月15日发布仅5天,就出现了“全球宕机12小时”事件,付费的ChatGPT Plus账户也未能幸免,用户的使用次数随后受到了明显的算力限制:从每4小时100条信息变成了每3小时25条。



但ChatGPT-4的“遭遇”并没有阻止各方涌入AI赛道,微软的必应浏览器new Bing、嵌入于办公软件的Microsoft 365 Copilot、以及新一代代码生产工具GitHub Copilot X,外语培训产品Duolingo Max、摩根士丹利等大批机构产品都陆续接入了ChatGPT-4大模型。
以上案例也仅仅只是冰山一角,截至2023年3月19日,已经有至少17家知名科技公司和机构正在加速将他们的类ChatGPT产品陆续投入应用市场。不止如此,随着GPT-4等模型复杂度升级,并逐步支持图片视频识别等多模态,算力已经呈现了明显的供不应求状态,据安信证券研报粗略推论,图像识别的所需算力是文字推理部分所需算力的2-4倍。随着未来图片、视频等模型的不断开放,目前对应的算力及基础设施需求有望持续大规模增长。


以AI为引领的数字产业对算力的需求已经进入新时代。然而纵观国内,现有算力基础设施从质量到数量均难以应对这一变化。
据了解,截至2022年底,我国在用数据中心算力总规模达到180EFLOPS,位居全球第二。但当前的算力规模中,仅有超过20%的算力是智能算力,显然无法满足即将带来的AI时代。
河南省科学院院长、中国科学院陈红星院士在第十七届中国IDC产业大典上就明确表示,我国在大力发展基础算力、智能算力、超算算力的同时,也在大力推进算网融合发展。构建智能算力网络,使未来算力将像电力一样触手可及。尽管如此,短期来看,算力的高能耗、计算安全、计算能力的问题依然是制约大规模人工智能应用和数字经济发展的重要因素。
建设包括新型数据中心在内的高质量算力基础设施已经迫在眉睫。



如何解决数据中心错配问题?
为解决这一问题,未来,超算中心、智算中心、边缘等数据中心的建设需求将会不断增大,新型数据中心建设的发展趋势也将呈现网络化、融合化、智能化、节能化等特点。具体来看,超算中心,可以集中部署高性能计算资源,为科研、工程等领域提供强大算力支持,帮助企业和科研机构突破技术瓶颈;智能计算中心采用人工智能技术优化数据中心管理,提高运行效率,降低能源消耗;而边缘数据中心在网络边缘部署计算资源,缩短数据传输距离,提高响应速度,可以满足实时性和低延迟需求。
从具体特点和优势来看:
1.网络化:新型数据中心采用高速互联网连接,提高数据传输速率和带宽利用率。2.融合化:实现计算、存储和网络资源的深度融合,打破资源隔离,提高资源利用率。3.智能化:引入人工智能和机器学习技术,实现数据中心自动化管理、故障预测与修复等功能。4.节能化:采用先进的散热技术、能源管理系统和绿色能源,降低能源消耗,减少碳排放。
总之,新型数据中心建设在应对算力危机中正在发挥着重要作用。而面对全球范围内的算力需求激增,算力基础设施领域相关技术的加速迭代也正在成为破解这一难题等重要突破点。
2023年3月21日,英伟达Nvidia发布了H100 NVL GPU,据了解是一款“核弹”级产品,英伟达创始人 CEO 黄仁勋表示,在欧美与云服务提供商合作,提供英伟达 DGX 系统 AI 超级计算机能力,可以大幅提升当前的算力水平。
在陈红星院士看来,为了解决算力挑战,破解后摩尔时代的算力“危机”,算力技术将从单点技术性能提升与算力系统的高效利用两个方向着手,以量子计算、光计算为代表的突破型先进计算建设相继涌现,基于光子芯片的光电融合处理器,由光子进行信息传输计算,理论上有望实现3个数量级计算速度的提升和6个数量级计算功耗的降低。
量子计算目前已经成为各国战略竞争焦点之一,其算力比超级计算机快百万亿倍,计算过程基本没有能耗,只有在最后产生能耗。此外,量子加密技术和量子通用技术也正在大规模用于算力的数据治理中,保障算力网络安全。尽管这一技术据大规模商用尚需时日,但这是有望打破算力危机的颠覆性技术。
总之

数据中心作为算力基础设施的重要组成部分,正同时面临着挑战和机遇。数据中心需要不断提升自身的运维效率、节能环保水平、安全可靠性等,以应对日益增长的算力需求。显然,“算力危机”正在加速推动数据中心的技术创新,如采用液冷、光互连、边缘计算等技术,提高数据中心的能效、性能和安全性等。

注:以上内容由ChatGPT-4协助完成


| 文章来源:中国IDC圈


• END • 

IDCC2022-解码可持续发展

独家丨数据中心可持续发展之谜

为何说算力是今天的“三次能源”?

首期1000PFlops|全国首个商业化“集群算力服务调度与采购平台”发布

【专栏】精品在读(点击进入)

“两会”上数据中心的那些事

7家开工,18家有建设新进展!——IDC项目建设2023年2月月报

多家数据中心跨行业进入光伏行业,预示着什么?


继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存